Search-GRT: Guided Retrieval Training of Search Agents to Optimize for Complex Question Answering
Search-GRT:用 ground truth 引导检索训练,提升搜索 Agent 多跳问答能力
🧭 搜索 Agent 强化学习训练优化 ★ 深度解读
Samsung Electronics AI Center-Mountain View
在 RL 训练中利用 ground truth 约束检索候选集,提供更强学习信号,多跳 QA 性能提升超 40%
📌 工作参考价值(4 点)
- 利用业务 ground truth 缩小检索空间以提升 RL 训练效率:在电商搜索或推荐多跳推理场景,若拥有用户点击/购买日志等强相关 item 集合,可构造受限检索池,集中训练信号,缓解早期稀疏奖励问题。
- 将“检索约束”作为课程学习策略:在复杂 query 改写或对话式推荐训练初期,用已知正确文档或商品限制候选范围,待 agent 学会提取有效子 query 后逐步放开,类似 GRT 仅在训练时约束,推理时仍用全量索引。
- 借鉴 GRT 的奖励设计:基于答案绝对匹配的 0/1 奖励简单高效,结合检索准确率与最终答案准确率的监控,能快速诊断 agent 的检索与合成短板。
- 工程实现上可复用文本嵌入相似度构建受限语料:用业务中已有的 query/商品/文档 embeddings,基于 ground truth 答案或关键信息,动态选取 top-k 相似文档作为训练时的检索池,无需额外标注。